Компания Google Cloud представила на конференции для разработчиков Google I/O инстансы Google Compute Engine A3, специально созданные для обеспечения максимальной производительности рабочих нагрузок машинного обучения. Новинки используют современные CPU, быструю память, ускорители NVIDIA и IPU Intel.

Виртуальная машина A3 включает:

• 8 ускорителей NVIDIA H100 Hopper.
• Коммутаторы NVIDIA NVSwitch с NVLink 4.0, обеспечивающие пропускную способность 3,6 Тбайт/с между ускорителями.
• Процессоры Intel Xeon Sapphire Rapids.
• 2 Тбайт оперативной памяти DDR5-4800.
• 200-Гбит/с IPU, специализированный стек межсерверной связи GPU↔GPU и оптимизации NCCL.

Помимо того, что новые инстансы используют DPU/IPU Mount Evans, разработанные совместно с Intel, кластеры A3 также задействуют фирменные оптические коммутаторы Google Jupiter с возможность переконфигурации топологии по требованию, которые компания уже использует в кластерах с собственными ИИ-ускорителями. Всё это позволяет объединять до 26 тыс. ускорителей H100 в облачный ИИ-суперкомпьютер производительность до 26 Эфлопс (TF32).

Изображение: Google

Ключевое отличие от других облачных предложений именно в интерконнекте и масштабируемости. Например, ИИ-суперкомпьютеры в Microsoft Azure объединяют тысячи и даже десятки тысяч ускорителей с использованием InfiniBand и DPU NVIDIA. В Oracle Cloud Infrastructure (OCI), где ранее был поставлен рекорд по объединению 32 768 ускорителей, используется тот же подход. Наконец, в AWS можно объединить до 20 тыс. ускорителей благодаря EFA.

Google предложит клиентам несколько вариантов использования A3: клиенты смогут запускать ВМ самостоятельно или в качестве управляемого сервиса, где Google возьмёт на себя большую часть работы. Возможно использование A3 в Google Kubernetes Engine (GKE) или в Vertex AI. В настоящее время виртуальные машины A3 доступны только после регистрации в списке ожидания превью. Сейчас компания занята развёртыванием множественных кластеров A3 в наиболее крупных облачных регионах.

Сбой в работе насоса охлаждающей системы, похоже, стал причиной утечки воды в парижском дата-центре компании Global Switc, которая, судя по всему, и привела к пожару в аккумуляторном отсеке. Как сообщает DataCenter Dynamics, в результате этого пострадали ресурсы ряда европейских органов власти и сервисы Google Cloud Platform.

Как сообщили представители Global Switch, инцидент произошёл в помещении одного из двух ЦОД на территории парижского кампуса компании, протечка воды случилась в аккумуляторном отсеке, что и спровоцировало возгорание. Помимо сервисов Google Cloud региона europe-west9-a, сбои работы в котором привели к отключению облачных сервисов во многих регионах. Заодно пострадали онлайн-ресурсы властей многих французских городов и муниципалитетов, а также посольств, консульств и других структур.

Источник изображения: suhasrawool/pixabay.com

Известно, что после прибытия пожарных возгорание локализовали. Пострадавших нет, но некоторое количество клиентов временно лишено доступа к собственным ресурсам. Пострадал местный хостинг-провайдер Ecritel, часть сервисов которого недоступны, есть данные о проблемах у мобильного оператора Orange и студии Ubisoft, хотя неизвестно, связаны ли проблемы последних именно с данным пожаром. Пока пострадавшим рекомендуют переключиться на использование других облачных регионов. Ущерб ещё предстоит оценить.

Всего месяц назад во Франции горел ЦОД Maxnod, а пожар в страсбургском дата-центре OVHcloud в 2021 году привёл к тотальному уничтожению данных некоторых компаний и многомиллионным убыткам — компания до сих пор не справилась с последствиями инцидента. Причём в этом случае проблема тоже была связана с, как сообщалось, аномальным уровнем влажности в энергоотсеках. Не так давно возгорание Li-Ion аккумуляторов привело к сбоям в работе южнокорейского мессенджера KakaoTalk — компания стала жертвой крупнейшего в мире инцидента в мире ЦОД. Ещё один небольшой инцидент произошёл в ЦОД Cyxtera.

I квартал 2023 года Google Cloud Platform (GCP), облачное подразделение компании Google, входящей в холдинг Alphabet, впервые в истории закончило с прибылью, составившей $191 млн, в то время как годом ранее у него были квартальные убытки в размере $706 млн. Выручка Alphabet от облачных вычислений составила $7,4 млрд, что на $1,6 млрд больше прошлогоднего показателя и незначительно выше по сравнению с $7,32 млрд выручки в IV квартале 2022 года.

Это первая прибыль, опубликованная Google Cloud с тех пор, как компания начала отдельно учитвать облачный доход в общем объёме выручки. Подразделение Google Cloud, первоначально известное как App Engine, был запущено в 2008 году, то есть 15 лет назад. Впрочем, финансовый директор Рут Порат (Ruth Porat) отметил продолжающееся замедление роста расходов клиентов на облачные технологии в связи с неопределённой экономической обстановкой.

Источник изображения: Google

Alphabet также объявил о корректировке предыдущих результатов в связи с изменением способа распределения затрат, в связи с чем уменьшились ранее объявленные убытки. Уточнённые убытки GCP за 2022 год составили: в I квартале — $706 млн вместо ранее объявленных $931 млн; во II квартале — $590 млн вместо $858 млн; в III квартале — $440 млн вместо $699 млн; в IV квартале — $186 млн вместо $480 млн.

В целом выручка Alphabet составила $69,787 млрд (на $1 млрд или 2,6 % больше, чем в I квартале 2022 года), а прибыль — $15,05 млрд (снижение на $1,38 млрд или 8,5 %). Компания сообщила о сокращении амортизационных отчислений на $988 млн в результате изменения предполагаемого срока полезного использования серверов с 4 до 6 лет и части сетевого оборудования с 5 до 6 лет.

«Мы предпринимаем значительные многолетние усилия по экономии средств, например, по улучшению использования машин и поиску более масштабируемых и эффективных способов обучения и обслуживания моделей машинного обучения, — сказал Сундар Пичаи (Sundar Pichai), генеральный директор Alphabet. — Мы делаем наши ЦОД более эффективными, перераспределяя рабочие нагрузки и оборудование там, где серверы используются не полностью. Это важная работа, поскольку мы продолжаем вкладывать значительные средства в инфраструктуру, чтобы реализовать наши многочисленные возможности ИИ».

Источник изображения: Microsoft

У других крупных облачных провайдеров ситуация несколько иная. Так, выручка Microsoft от работы подразделения Intelligent Cloud, включающего Azure, составила в I квартале 2023 года $22,08 млрд, что больше прошлогоднего результата на 16 %. При этом выручка от серверных продуктов и облачных сервисов выросла на 17%, что, как сообщает компания, было обусловлено ростом доходов Azure и других облачных сервисов на 27 %. В предыдущем квартале выручка облачного подразделения Microsoft составила $21,51 млрд.

«Самые передовые в мире модели искусственного интеллекта объединяются с самым универсальным в мире пользовательским интерфейсом — естественным языком — для создания новой эры вычислений, — сказал Сатья Наделла (Satya Nadella), председатель и главный исполнительный директор Microsoft. — В Microsoft Cloud мы являемся предпочтительной платформой, помогающей клиентам получить максимальную отдачу от своих цифровых расходов и внедрять инновации для следующего поколения искусственного интеллекта».

«Сосредоточенная работа наших отделов продаж и партнёров в этой динамичной среде привела к тому, что доход Microsoft Cloud составил $28,5 млрд США, что на 22 % больше по сравнению с прошлым годом», — добавила Эми Худ (Amy Hood), исполнительный вице-президент и финансовый директор Microsoft. Общая выручка Microsoft за отчётный квартал равна $52,9 млрд, что на 7 % больше по сравнению с аналогичным периодом 2022 года. Операционная прибыль выросла на 10 % до $22,4 млрд, а чистая прибыль составила $18,3 млрд (рост 9 %).

Источник изображения: Oracle

В свою очередь Oracle в отчёте о результатах за III квартал 2023 финансового года, опубликованном в начале марта, сообщила о доходах от облачной инфраструктуры (IaaS) в размере $1,2 млрд, что на 55 % больше, чем в прошлом году. Всего выручка компании за квартал составила $12,4 млрд, что на 18 % больше по сравнению с прошлым годом. Операционная прибыль (GAAP) за третий квартал составила $3,3 млрд. Операционная прибыль (Non-GAAP) достигла $5,2 млрд, превысив прошлогодний показатель на 8 %.

Генеральный директор Oracle Сафра Катц (Safra Catz) заявила: «Значительный квартальный рост прибыли был обусловлен постоянным ростом на 48 % общего дохода от двух наших облачных подразделений, инфраструктуры и приложений. Годовой доход облачного бизнеса Oracle превышает $16 млрд. Наш технически продвинутый и высокодифференцированный инфраструктурный бизнес второго поколения продолжает находиться в фазе быстрого роста — на 65 % в III квартале в постоянной валюте».

Спутниковые проекты, позволяющие передавать и обрабатывать солидные объёмы данных, уже давно привлекают внимание гигантов облачных вычислений, включая Amazon, Microsoft и Google, заинтересованных в выходе на рынок космических услуг, пишет DIGITIMES Research.

Согласно классификации DIGITIMES Research, публичные облака сейчас предлагают три типа услуг: базовые облачные сервисы, наземные станции с облачными сервисами и облачные сервисы, основанные на собственной спутниковой сети. Спутниковая экосистема включает сами спутники, наземные станции и приёмники. Спутники используются для выполнения различных задач, включая наблюдение Земли, передачу сигналов и обеспечение связи. Наземные станции отвечают за управление спутниками, передачу и обработку данных, в том числе потоковых.

Amazon, Microsoft и Google уже внедряют доступ к наземным станциям по модели как-услуга (GSaaS). Прямое подключение позволит спутниковым операторам сэкономить на узлах передачи данных и собственной наземной инфраструктуре, а облакам поможет внедрить новые сервисы на границе сети. Однако подход у провайдеров разнится. Например, Google Cloud Platform (GCP) фокусируется на обработке данных и геосервисах, интегрированных с целым рядом облачных услуг. А Amazon Web Services (AWS) и Microsoft Azure инвестируют в наземную инфраструктуру, в которой заинтересованы спутниковые компании.

Источник изображения: DIGITIMES

Особняком стоит спутниковый проект Project Kuiper, разрабатываемый собственными силами Amazon с целью снижения TCO и вертикальной интеграции с инфраструктурой AWS. Собственная спутниковая система позволит не только развивать услуги спутниковой широкополосной связи и IoT, но и будет служить основой для комплексных решений, задействуюших ресурсы других подразделений Amazon. Кроме того, компания намерена инвестировать $10 млрд в развитие сети наземных станций. По оценкам DIGITIMES Research, развёртывание экосистемы сопряжено с риском, поэтому Amazon будет осмотрительна.

DIGITIMES Research отмечает, что основное отличие Microsoft Azure от AWS в данном контексте заключается в открытости экосистемы. AWS представляет собой более «закрытую» среду. К тому же AWS сотрудничает с такими стартапами, как Maxar, BlackSky, Capella и D-Orbit, а не с традиционными спутниковыми игроками и операторами наземных станций. Вместе с тем компания сталкивается с большими проблемами при расширении своего рынка из-за конкуренции с существующими спутниковыми компаниями, предоставляя при этом только базовые облачные услуги.

Изображение: Microsoft Azure

В отличие от Amazon, Microsoft имеет платформу и экосистему для подключения к облаку компаний из различных отраслей, и Microsoft готова к сотрудничеству с другими спутниковыми компаниями. Сервис Azure Orbital предлагает обширную экосистему партнёрских возможностей, которая привлекает и SES с Viasat, и SpaceX. DIGITIMES Research предупреждает, что по мере увеличения экосистемы становится всё более сложным поддержание её стабильного роста экосистемы и синергии сотрудничества, и в перспективе Azure Orbital станет серьёзной проблемой для Microsoft.

По оценкам DIGITIMES Research, у AWS самые высокие потенциальные преимущества и риски в области спутниковых систем, в то время как у GCP самые стабильные потенциальные преимущества и самые низкие риски. Azure же занимает промежуточное положение — умеренные риски и умеренные преимущества на рынке.

По всей видимости, в Великобритании вскоре откроют полномасштабное антимонопольное расследованием деятельности Amazon и Microsoft, поскольку британский регулятор в секторе телекоммуникаций Office of Communications (Ofcom) обвинил их облачные сервисы в злоупотреблении своим доминирующим положением на рынке, чтобы помешать добросовестной конкуренции.

Ofcom выразил обеспокоенность действиями американских технологических фирм и сообщил о имеющихся доказательствах того, что пользователи сталкиваются с проблемами при попытке сменить провайдера или воспользоваться услугами нескольких провайдеров. Как сообщает Bloomberg, в октябре прошлого года Ofcom начал расследование деятельности AWS, Microsoft Azure и Google Cloud Platform. Регулятор опасается, что пользуясь своим доминирующим положением, они могут ограничивать инновации и рост рынка облачных сервисов.

Изображение: Microsoft Azure

В настоящее время на долю американских гиперскейлеров приходится ⅘ дохода британского рынка публичных облаков, который, по оценкам Ofcom, составляет £15 млрд ($18,7 млрд). Amazon Web Services (AWS) и Microsoft Azure имеют совокупную долю на облачном рынке Великобритании от 60 до 70 %, в то время как у ближайшего конкурента Google доля составляет от 5 до 10 %. В период с 2018 по 2021 год доля остальных облачных провайдеров упала с 30 до 19 %. В Европе в целом доля местных облачных провайдеров под давлением «большой тройки» американских гиперскейлеров за период 2017–2021 гг. сократилась с 27 % до менее чем 16 %.

По мнению Ofcom, такой уровень доминирования на рынке потенциально может затруднить более мелким облачным провайдерам конкуренцию с лидерами рынка, что способствует дальнейшей консолидации доходов и доли рынка у крупных игроков. Ofcom указал на три пункта, вызывающие особую озабоченность: высокие комиссионные сборы, технические ограничения на совместимость между сервисами и гарантированные дисконты.

Источник: Synergy Research Group

Причастные к вопросу компании и другие заинтересованные стороны должны до 17 мая предоставить Ofcom свои предложения. Ofcom готов обратиться в Управление по конкуренции и рынкам Великобритании (CMA), чтобы то провело исследование рынка облачной инфраструктуры. «Мы готовы провести исследование рынка в этой области, если Ofcom решит, что это необходимо после завершения процесса консультаций», — заявил представитель CMA.

Следует отметить, что деятельность Microsoft на рынке облачных сервисов уже вызвала вопросы у Еврокомиссии, к которой поступили жалобы французской компании OVH и двух других облачных провайдеров. Предпринятые Microsoft шаги в ответ на жалобы конкурентов в ЕС посчитали недостаточными. Ранее Google уже обвинила Microsoft в неконкурентном поведении на европейском облачном рынке.

Подразделение Google Cloud, входящее в состав холдинга Alphabet, по сообщению Reuters, обвинило Microsoft в антиконкурентных методах ведения облачного бизнеса и раскритиковало предстоящие сделки редмондской корпорации с несколькими европейскими поставщиками облачных услуг.

Вице-президент Google Cloud Амит Завери (Amit Zavery) заявил, что компания уже обратилась в антимонопольные органы Европейского союза с просьбой изучить ситуацию, связанную с деятельностью облачной структуры Microsoft. В Google полагают, что ценовая и лицензионная политики Microsoft ограничивают для клиентов выбор других поставщиков облачных сервисов.

«У Microsoft определённо крайне антиконкурентная позиция в облаке. Они используют своё доминирующее положение в локальном бизнесе, а также в сегментах Office 365 и Windows, чтобы объединить Azure и другие облачные сервисы и усложнить выбор для потребителей», — отметил господин Завери.

Источник изображения: pixabay.com

Вице-президент Google Cloud также подчеркнул, что некоторые сделки, заключённые между Microsoft и более мелкими европейскими поставщиками облачных услуг, приносят пользу только редмондскому гиганту. Амит Завери говорит, что Microsoft создаёт различные условия для разных облачных провайдеров с целью «подкупа тех, кто жалуется».

В ответ Microsoft сослалась на сообщение в блоге, опубликованное в мае прошлого года, в котором её президент Брэд Смит (Brad Smith) заявил, что корпорация «занимает вторую позицию, когда речь идёт об облачных сервисах, с долей чуть более 20 % в общей выручке». Представители корпорации также заявляют, что Microsoft «привержена европейскому облачному сообществу и его успеху».

Ранее у Еврокомиссии уже возникали вопросы в отношении поведения Microsoft на облачном рынке: речь шла о возможной антиконкурентной практике. В ответ на поступившие жалобы корпорация предприняла ряд мер по исправлению ситуации, однако участники рынка назвали их недостаточными. А впоследствии и вовсе выяснилось, что использование продуктов Microsoft в собственном облаке Azure будет по-прежнему выгоднее, нежели в AWS или Google Cloud.

На GTC 2023 корпорация NVIDIA анонсировала новые ускорители для инференс-систем — сверхмощный H100 NVL и компактный L4. Последний предлагает приличную производительность в форм-факторе HHHL. Google Cloud уже воспользовалась последней новинкой и объявила о доступности инстансов G2 с ускорителями NVIDIA L4.

Инференс-задачи требуют от ускорителя быстрой обработки входных данных. Google Cloud предлагает использовать G2 именно в таком качестве и говорит о возможном снижении инфраструктурной стоимости на 40 %. Также говорится о повышении производительности в сравнении с NVIDIA T4, ускорителями аналогичного класса, но предыдущего поколения.

NVIDIA L4 (Источник: NVIDIA)

В зависимости от задачи прирост может варьироваться от двух до четырёх раз. Карта развивает почти 500 Топс (INT8/FP8) и несёт на борту 24 Гбайт памяти с ПСП 300 Гбайт/с. Впрочем, L4 достаточно универсален и может использоваться в любых сценариях, от HPC и рендеринга 3D-графики до параллельного транскодирования потокового видеоконтента. В том числе новинка поддерживает трассировку лучей, технологию масштабирования DLSS 3.0, а также аппаратное кодирование в формате AV1.

В настоящее время новые виртуальные машины доступны в виде закрытого превью, количество используемых ускорителей — от 1 до 8. Инстансы G2 доступны в регионах us-central1, asia-southeast1, europe-west4, а запрос на доступ к ним можно оставить, использовав приведённую ссылку. Также новые ускорители вскоре станут доступны в Google Kubernetes Engine (GKE), Vertex AI и других облачных сервисах.

С тех пор как Илон Маск (Elon Musk) приобрёл Twitter, у социальной сети начались серьёзные неприятности. В частности, как сообщает DataCenter Dynamics, компания начала демонстрировать неуместные попытки сэкономить, задерживая оплату счетов землевладельцам, клининговым сервисам и другим компаниям, уже предоставившим те или иные услуги.

Так, распоряжением Маска закрыт один из трёх ЦОД Twitter в США, в результате чего серверные мощности социальной сети значительно снизились. Дополнительно Маск сократил немало работников, включая разработчиков и технический персонал, отвечавших за обеспечение работоспособности сервиса. Результаты не заставили себя долго ждать — с тех пор, как Маск начал реформы, сбои в работе социальной сети случались не один раз. Впрочем, это лишь часть проблем.

Источник изображения: Sunny Haccan/unsplash.com

По данным The Information, Twitter уже в течение четырёх месяцев не платила по счетам сервиса Amazon Web Services (AWS), несмотря на то, что социальная сеть активно пользуется облачными услугами и долг достиг десятков миллионов долларов. В Amazon пригрозили возмездием, заявив, что больше не будут платить за рекламу. Известно, что на расходы на рекламу торговой площадки только в I квартале, вероятно, придётся около $1 млн, и намного больше, если принять во внимание сегмент Amazon Studios.

Судя по всему, Twitter уже потеряла важного клиента, хотя и попыталась сгладить ситуацию, выплатив $10 млн несколько недель назад. Тем не менее, СМИ сообщают, что AWS не намерена продлевать контракт, заключённый в 2020 году сроком на 5,5 лет. Возможно потому, что социальная сеть даже теперь должна ещё как минимум $70 млн. Ранее предполагалось, что Twitter заплатит за весь срок обслуживания $510 млн и перенесёт в AWS свои основные сервисы, но этого так и не произошло, хотя некоторыми услугами облака Amazon социальная сеть всё же пользуется.

При этом известно, что Twitter гораздо активнее пользуется облачными сервисами Google Cloud и платит за них точно в срок, хотя и пытается договориться о снижении стоимости. Причина столь разного подхода неизвестна. Высказываются предположения, что Google является более крупным рекламодателем и к тому же платит Twitter за поставку данных, поэтому компании имеют перекрёстную зависимость друг от друга. Впрочем, известно, что в Google отказываются от пересмотра контракта и снижения стоимости своих услуг в рамках подписанного пятилетнего контракта на сумму $1 млрд.

Сервис Transfer Appliance, доступный в ряде регионов США, ЕС и Сингапуре, позволяет клиентам просто и безопасно перенести петабайты данных из их корпоративных ЦОД и других мест эксплуатации в Google Cloud. Сервис основан на одноимённой специализированной All-Flash СХД, которую клиент может запросить в Google Cloud Console, чтобы перенести на него свою информацию. На днях компания анонсировала новую версию Transfer Appliance.

Google Cloud проверяет потребности заказчика, такие как мощность и необходимая ёмкость, и отправляет полностью укомплектованное устройство, включая все необходимые кабели. Доступные для заказа ёмкости находятся в диапазоне от 40 до 300 Тбайт. Имеются также две базовые модификации Transfer Appliance: на 100 и 480 Тбайт. Благодаря встроенным средствам дедупликации и сжатия данных потенциально можно перенести до 1 Пбайт. Кроме того, предприятия могут выбрать вариант исполнения — для монтажа в стойку или автономное устройство.

Как только устройство прибывает к заказчику, его можно смонтировать как общий ресурс NFS и приступить к копированию данных. Затем устройство запечатывается для защиты от несанкционированного доступа при траспортировке и отправляется обратно Google. Перед переездом данные шифруются (AES-256), а клиент создаёт пароль и секретную фразу для их дешифровки. Это не только защищает информацию, но и позволяет соблюсти отраслевые стандарты ISO, SOC, PCI и HIPAA.

По прибытии устройства в Google специалисты компании осуществляют обратные операции, которые для краткости они называют «регидратацией». О её успешном завершении Google сообщает заказчику как правило в течении 1-2 недель. После миграции клиентам становятся доступны средства для анализа данных BigQuery и Vertex AI.

Google рекомендует предприятиям использовать сервис Transfer Appliance в тех случаях, когда для загрузки данных в облако через Интернет потребуется более недели, или когда необходимо перенести более 60 Тбайт данных. Ещё один вариант использования устройства — сбор данных в полевых условиях и на подвижных объектах, таких как корабли. По прибытии в порт их можно легко перенести в облако для последующей обработки или архивирования.

Следует отметить, что сервис особенно полезен в условиях недостаточной пропускной способности каналов передачи данных или отсутствия возможности подключения к Интернет. Несмотря на то, что данная концепция не нова и компании десятилетиями отправляли данные на физические устройства для архивирования и аварийного восстановления, она не утратила своей актуальности и сегодня. Аналогичные решения есть у всех крупных облачных провайдеров.